本文正式对系统之间的战略重复交互作用，包括机器学习（ML）模型和相关的解释方法，以及正在寻求预测/标签的最终用户，并通过查询/输入进行解释，游戏理论。在这个游戏中，恶意的最终用户必须从战略上决定何时停止查询并尝试妥协系统，而系统必须战略性地决定其与最终用户以及何时分享的信息（以嘈杂的解释的形式）停止分享，所有这些都不知道最终用户的类型（诚实/恶意）。本文使用连续的随机信号游戏框架正式对这种权衡进行了正式建模，并在这种框架内表征了马尔可夫的完美平衡状态。
translated by 谷歌翻译
在多个在线平台上的数量越来越多。尽管这些文章的学术影响得到了广泛的研究，但在线分享的在线兴趣仍不清楚。认识到在线提到的研究文章的时间对研究人员来说可能是有价值的信息。在本文中，我们分析了用户共享和/或讨论学术文章的多个社交媒体平台。我们建立了三个论文集群，根据年度在线提及的出版日期，范围从1920年到2016年。使用这三个群集中的每个集群使用在线社交媒体指标，我们构建了机器学习模型来预测长期的机器学习模型在线对研究文章的兴趣。我们采用两种不同的方法来解决预测任务：回归和分类。对于回归方法，多层感知器模型表现最好，对于分类方法，基于树的模型的性能比其他模型更好。我们发现，在经济和工业的背景下（即专利），旧文章最为明显。相比之下，最近发表的文章在研究平台（即Mendeley）之后是社交媒体平台（即Twitter）最为明显。
translated by 谷歌翻译
预测模型越来越多地用于在医疗保健，金融和政策等高风险领域中做出各种结果决策。确保这些模型做出准确的预测，对数据的变化，不依赖虚假特征，并且不会过分区分少数群体，这变得至关重要。为此，最近的文献提出了几种涵盖各个领域的方法，例如解释性，公平性和鲁棒性。当这种方法迎合对用户对模型的理解时，需要以人为本。但是，一旦部署了监测机器学习的需求和挑战，就存在研究差距。为了填补这一差距，我们对13位从业人员进行了访谈研究，他们在部署ML模型并与跨越领域的客户互动，例如金融服务，医疗保健，招聘，在线零售，计算广告和对话助理等领域。我们确定了在现实世界应用中对模型监控的各种挑战和要求。具体而言，我们发现了模型监视系统的需求和挑战，以阐明监测观察结果对结果的影响。此外，此类见解必须是可行的，可靠的，可针对特定于域的用例定制，并认知考虑以避免信息超负荷。
translated by 谷歌翻译